오는 2026년부터 시행되는 EU AI 법안에 따라 AI 서비스 제공자들은 생성물에 워터마크를 삽입해야 할 의무를 집니다. 하지만 텍스트는 이미지와 달리 소량의 노이즈도 허용하지 않는 극도로 압축된 매체이기 때문에 완벽한 워터마크 적용은 기술적으로 매우 까다롭습니다. 구글의 SynthID 등 부분적인 해결책들이 등장하고 있으나, 모델 성능 저하와 탐지 비용 등의 트레이드오프를 AI 기업들이 어떻게 극복할지가 핵심 관전 포인트입니다.
Anthropic은 EU AI 법안의 투명성 의무를 준수하기 위해 클로드가 생성한 모든 텍스트에 워터마크를, 이미지 등 파일에는 출처 메타데이터를 포함하도록 설정할 예정입니다. 이러한 기계 판독용 표기는 2026년 8월 이후 출시되는 신규 모델부터 전 세계 모든 제품에 기본 적용되며, 이는 AI 생성물의 출처를 명확히하여 투명성을 높이는 중요한 정책적 변화입니다.
가상 인플루언서 산업이 급성장하며 브랜드 마케팅의 핵심으로 자리 잡고 있으나, EU 인공지능 법안 등 글로벌 규제가 강화되면서 실무자들이 큰 혼란을 겪고 있습니다. AI 생성 콘텐츠 표시 의무가 확대되고 있지만, 법의 모호성으로 인해 제작자와 브랜드 담당자들은 대응 방안을 찾지 못해 위기를 맞이하고 있습니다.
2024년 통과된 세계 최초의 포괄적 AI 규제법인 'EU AI 법(AI Act)'의 핵심 조항이 이번 8월부터 본격적으로 발효되었습니다. 이에 따라 유럽연합(EU) 집행위원회는 대형 언어 모델(LLM) 등 AI 기술을 규제하는 세계 최고의 감독 기관으로 자리매김하게 되었습니다. 이 법안은 모델의 투명성 확보를 의무화하고, 가장 강력한 '프론티어 모델(frontier model)'을 개발하는 기업에 사회적 위험 완화 책임을 부과하는 등 전 세계 AI 산업에 큰 영향을 미칠 전망입니다.
최근 보도에 따르면 기업들이 회의, 고객 응대, 면접 등에서 직원의 감정을 분석하는 '감정 AI' 도입을 확대하고 있습니다. 전문가들은 이 기술이 근거 없는 과학적 오류와 인종 차별적 편향을 지니고 있으며 부당한 불이익을 초래한다고 경고합니다. EU는 이미 직장 내 감정 AI 사용을 전면 금지했으나, 글로벌 시장 규모는 2030년까지 세 배로 확대될 전망이어서 심각한 감시 논란이 예상됩니다.